DSIRM: Learning Query-Bridged Discrete Semantic Identifiers for E-commerce Relevance Modeling
DSIRM:查询桥接的离散语义标识符用于电商相关性建模
🧭 搜索相关性 · 离散语义ID ★ 深度解读
Taobao & Tmall Group of Alibaba
通过查询桥接对比学习训练RQ-VAE生成相关性感知的离散语义ID,并利用LLM预测查询SID,以层次匹配分数增强排序模型
📌 工作参考价值(4 点)
- 1. 将离散SID作为排序模型的补充特征:物品侧用RQ-VAE离线量化成层级码,查询侧用小尺寸LLM在线生成可能的SID,通过层级前缀匹配得到一个离散匹配分数,即插即用到任意DNN排序模型中,有效弥补连续嵌入在细粒度属性区分上的不足。
- 2. 查询桥接的对比量化训练:用InfoNCE损失强制匹配的query-item对在量化空间中靠近,把无监督聚类转成有监督的搜索相关性分区,并配合类别感知的一级码本分配(按类目固定码本索引)缓解类别不平衡,这一范式可迁移至其他需要查询感知离散表示的场景(如推荐中的用户意图聚类)。
- 3. LLM解码意图多义性:微调自回归LLM根据查询文本生成Top-K个SID,以beam search得到多条候选,显式建模查询的多义意图,再与物品SID做层级匹配,该方法可复用到查询改写、意图识别等模块,比单一向量表示更灵活。
- 4. 离线在线混合部署方案:物品SID预计算并存入KV缓存,查询侧对历史查询做缓存(88%流量命中),仅12%实时流量走LLM推理,0.6B模型平均延迟17.9ms,P99 24.3ms,几乎不增加主链路耗时,为高性能系统中引入生成式LLM特征提供了低成本的工程样板。